• 目錄
  • Introduce and analysis
  • cluster level ELK
  • sidecar mode
  • integrate log collecting component into an app

今天要來談談在Kubernetes要如何收集logs！

在K8s中由規模大到小有三種收集logs的方式

1. 每台node都安裝一個agent輸出logs
2. 每個pod都有filebeat的sidecar收集並輸出logs
3. 每個container都由filebeat輸出logs

每台node都安裝一個agent輸出logs

DaemonSet 是一種K8s在Node上運行daemon的一種機制， 確保每台Node上都有運行一個Pod.
若有新的Node加入cluster, K8s會確保Node上有運行此Pod.

通常在一個Node中會運行Prometheus Node Exporter, Collectd, Flentd, Logstash等Daemon來收集這台主機的訊息

比如說Rancher的(K8s的UI工具)Cluster監控圖就是透過這種方式收集Nodes的資訊

每個pod都有fluentd的sidecar收集並輸出logs

以上這張圖可以很好的解釋所謂的SideCar.

所謂SideCar便是在一份Pod中運行兩個以上的Containers

同時可以透過volume的方式共用同一個檔案目錄, 例如上圖中的api container可以產生log到某個檔案目錄， 再由filebeat這個sidecar來讀取這個目錄的log並輸出至ElasticSearch

每個container都由filebeat輸出logs

這種方式就是在將App打包成Image之前, 將filebeat的Config加入Ａpp
這樣App在運行時, log就會直接送到ElasticSearch, 當然也可以使用Fluentd先format再送到ElasticSearch

三方比較

結語

在實務上的應用， 我們是將不同的專案用namespace做區分.
不是每個專案都需要收集logs, 倘若用第一種方式就會導致ElasticSearch收到全部服務的log
然而用第三種方式又會導致每個image變大＋記憶體吃更多， 所以會建議如果只是部分專案需要用到log collection的話， 就使用第二種方式

在接下來的三天我會分別Demo這三種收集log的方式.

Reference

DaemonSet: https://kubernetes.io/docs/concepts/workloads/controllers/daemonset/
Kubernetes中文指南/云原生应用架构实践手:
https://jimmysong.io/kubernetes-handbook/concepts/daemonset.html
Logging Architecture:
https://kubernetes.io/docs/concepts/cluster-administration/logging/